Sampling and Monte Carlo Methods

Why Sampling

蒙特卡洛方法主要是为了计算出积分或者某些目标的近似值，通过随机采样的方式，这种在可求导的情况下可以提高计算速度。比如说用minibatch的方式来估计training loss。除此之外，有些时候还需要我们去估计intractable的值。

Basics of Monte Carlo Sampling

$$s = \sum_x p(x)f(x) = E_p[f(x)] \\ s = \int p(x)f(x) dx = E_p[f(x)]$$

当我们可以从$p(x)$中采样$x$的时候，我们可以根据计算的$f(x)$来估计出上面的两个连续和离散积分。

Importance Sampling

Markov chain Monte Carlo methods (MCMC)

这个适用于从energy-based model中采样，同事要保证没有一个状态的概率是0.